#Parallel Reasoning

4 篇

MAPS: Macro-Adaptive Parallel Reasoning for Regulating Search Momentum in Retrieval-Augmented Generation

MAPS：宏观自适应并行推理调节 RAG 搜索动量

🧭 迭代式 RAG · 搜索动量调节 ★ 深度解读

Northeastern University, Shenyang, China · Tsinghua University, Beijing, China

提出 search momentum 量化迭代 RAG 中的查询意图漂移，并用轨迹解耦与并行多方向检索缓解漂移

📌 工作参考价值（4 点）

用 search momentum 做在线 query 漂移监控：在多轮搜索/Agent 中，记录每步生成 query 的 embedding 位移并加权累积，当 momentum 与原始 query 余弦相似度持续下降时触发校准（重写 query、并行探索或回退原始意图），适合电商搜索 query 改写、对话式推荐中的信息收集。
状态管理上把“已获取的知识”和“历史查询轨迹”解耦：只保留知识观察和压缩后的推理状态，不把历史 query 序列塞进 prompt，可避免中间错误查询累积污染后续召回。工程上可用一个 summarizer 将检索到的商品/文档证据压缩成结构化状态，而不是保留完整对话历史。
并行生成多个互补检索方向：在 query/关键词扩展时，先让 LLM 提出 N 个互补方向（如类目、属性、风格、价格带），再分别生成 query 并行检索并合并召回结果。这比单纯并行生成多个 query 更可控，消融显示 direction proposal 贡献约 4 个百分点。
自适应终止：MAPS 对简单 query 更早终止，复杂 query 多轮继续检索且不丢准确，可用一个 lightweight 判断器基于已收集证据是否足够来决定停止，减少不必要的检索轮次。

RAG | 2026-10-21 | cs.CL | score 8/10

ParaTempo：基于时序置信度的高效并行推理

🧭 LLM 推理 · 分支级动态计算分配

Shanghai Jiao Tong University · University of Pennsylvania

无需训练的异步并行推理框架，用时序置信度驱动分支剪枝/早退/分叉/投票停止，降延迟 21.8-32.2%、token 18.1-30.3% 且精度持平

📌 工作参考价值（4 点）

生成式推荐/Agent 多路径决策：可把“周期性探测答案分布 + 时序置信度”作为分支管理信号，替代 final consensus 或局部 token confidence，更早识别低质分支；适合电商复杂 Agent 的规划/工具调用、搜索 Query 多路改写投票等在线场景。
工程实现无需训练，异步不等待慢分支：对商品文案多版本生成、RAG 多路检索答案生成等，可借鉴“低置信剪枝 → 高置信早退 → 释放算力分叉新分支”的编排，降低 token 量与 P99 延迟。
时序置信度计算可复用：对每个分支按滑动窗口聚合最近 probe 的答案分布，度量 dominant answer 集中度，作为收敛预警/停止投票信号，比 token-level entropy 更稳定；在生成式推荐语义 ID 投票或用户意图多解评估中可试。
停止条件可参考 confidence-weighted vote 集中而非全分支完成，适合需快速响应、长尾分支拖累明显的业务。

Reasoning | 2026-08-17 | HF Daily | score 7/10

第二思考：LLM Agent 行动与观察期间并行推理

🧭 Agent 推理时延优化 · 异步并行思考 ★ 深度解读

Singapore Management University

在 ReAct 的 Action-Observation 空闲窗口并行分叉四路原子思考，融合回下一轮，降低主线程解码与轮次而不损精度

📌 工作参考价值（4 点）

把 ReAct 中 Action–Observation 的等待窗口当成免费并行推理资源：Agent 调用商品搜索、用户模拟器或工具返回期间，分叉 Check/Recall/Rehearse/Alternative 四路旁路思考，下一轮提示词直接拼接收获的原子思考，可减少无效轮次；工程上可复用主线程前缀 KV cache，关闭旁路 thinking mode 以快速产出。
四类推理维度对应电商对话 Agent 常见失败：假设未验证（库存/优惠条件）、长对话约束遗忘（预算/偏好）、工具结果偏离时重新规划、过早锁定单一策略；可按业务裁剪只保留 1-2 路，例如 Alternative + Rehearse，单分支 API 成本仅增加 16%-35%。
原子思考输出契约值得直接抄：用 <thought> 包裹、每条 ≤25 词、无前后引用，中断只丢弃当前单元，适合推送文案生成、搜索 query 改写等任何需要异步生成且可随时截断的场景。
延迟收益主要来自主线程 token 减少而非隐藏工具等待，说明把旁路思考预算转到等待窗口比单纯 force 主模型更长推理更划算；若允许主线程等待分支完成，Pass@1 还能再涨 4.7 点，但会牺牲关键路径，适合离线批处理或准实时场景。

Agent | 2026-08-13 | HF Daily | score 8/10

OpenDeepThink：基于Bradley-Terry聚合的并行推理

🧭 Reasoning ★ 深度解读

UC San Diego · Princeton University · University of Washington · UC Berkeley

无需外部验证器的并行测试时推理框架，通过成对比较与Bradley-Terry排名实现选择与突变。

Reasoning | 2026-05-14 | cs.AI | score 9/10